iT邦幫忙

2019 iT 邦幫忙鐵人賽

DAY 10
1

CNN空間擴展,神經元與特徵卷積,用於靜態輸出。特點是善於抽取位置不變特徵。
RNN時間擴展,神經元與多個時間輸出計算。可以用於描述時間上連續狀態的輸出,有記憶功能。

目前很多最先進的NLP任務之所以不斷切換模型,就是因為CNN和RNN之間特點的差異性。

CNN+RNN組合方式
一、CNN用於特徵提取 (識別圖片內出現的物件), RNN用於語句生成圖片標註(依造物件元素產生語句描述)

https://ithelp.ithome.com.tw/upload/images/20181025/20112538B1laF1awct.png

二、RNN特徵提取用於CNN內容/影片分類
使用RNN辨識圖片內的物件,CNN再依照這些特徵進行分類模型訓練

三、CNN特徵提取用於對話問答圖片問答

辨識圖片/影像物件位置

  1. CNN直接產生目標候選區
  2. LSTM對產生候選區融合
  3. 確定最終的精確位置

https://ithelp.ithome.com.tw/upload/images/20181025/20112538iWSY7Y16Ub.png

在處理語言的任務上,我們怎麼去選擇呢?基於它們的特性“分層(CNN) vs. 連續(RNN)”,我們傾向於為分類類型的任務選擇CNN,例如情感分類,因為情感通常是由一些關鍵詞來決定的;對於順序建模任務,我們會選擇RNN,例如語言建模任務,要求在了解上下文的基礎上靈活建模。

參考來源
CNN和RNN結合與對比,實例講解
https://hk.saowen.com/a/b52c246a27d0990a23211e24242d2c36b946488ce972276eb833c1910f808a7b
NLP 模型到底选 RNN 还是 CNN?
https://www.ctolib.com/topics-109200.html


上一篇
RNN (下)
下一篇
XGboost
系列文
自然語言技術與AI/ML初探30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言